Một lần nhà vua thiếu niên từ bãi tắm Cửa Tùng lên (hàng năm ông hay ra đây nghỉ mát), tay chân dính cát. Thị vệ bưng chậu nước cho vua rửa. Duy Tân vừa rửa vừa hỏi:

"Khi tay dơ thì lấy nước mà rửa, khi nước bẩn thì lấy chi mà rửa?"

Người thị vệ chưa biết trả lời ra sao thì vua Duy Tân nói tiếp:

"Nước dơ thì phải lấy máu mà rửa, hiểu không?"

Một lần khác vua Duy Tân ra ngồi câu cá trước bến Phu Văn Lâu. Thượng thư Nguyễn Hữu Bài cùng đi. Mãi không thấy con cá nào cắn câu, vị hoàng đế trẻ bèn ra câu đối:

"Ngồi trên nước không ngăn được nước, trót buông câu nên lỡ phải lần."

Sau khi nghĩ ngợi một lúc, Thượng thư Nguyễn Hữu Bài đối lại:

"Nghĩ việc đời mà ngán cho đời, đành nhắm mắt đến đâu hay đó."

Nghe đồn Duy Tân phê Nguyễn Hữu Bài là người cam chịu trước số mạng. Nhà vua còn bảo:

"Theo ý trẫm, sống như thế buồn lắm. Phải có ý chí vượt gian khó thì cuộc sống mới có ý nghĩa!"